Recientemente, California ha avanzado en la aprobación de una legislación importante destinada a regular la inteligencia artificial (IA), particularmente a través de la Ley de Innovación Segura y Protegida para Modelos de IA de Frontera (SB 1047). Este proyecto de ley, que está a punto de convertirse en ley pendiente de la firma del gobernador Gavin Newsom, propone imponer estrictos estándares de seguridad para los desarrolladores de modelos de IA, especialmente aquellos que implican grandes inversiones o un uso significativo de poder computacional.

El proyecto de ley establece que las empresas deberán realizar pruebas de seguridad exhaustivas antes de lanzar modelos al público. Además, incluye la obligación de implementar un 'interruptor de emergencia' que permita desactivar modelos que puedan representar una amenaza. También se exige que las empresas lleven a cabo auditorías de terceros para verificar sus prácticas de seguridad y se les faculta a las autoridades estatales para demandar a los desarrolladores si se descubren usos perjudiciales de la IA sin que se hayan realizado las pruebas requeridas.

Esta legislación ha generado un intenso debate. Por un lado, los defensores del proyecto, como los senadores que lo promueven, argumentan que es un paso necesario para proteger al público de posibles desastres asociados con el uso indebido de la IA. Por otro lado, los críticos, que incluyen importantes figuras de la industria tecnológica y algunos legisladores, advierten que podría sofocar la innovación y hacer que las empresas tecnológicas opten por dejar California debido a la carga regulatoria que impone.

Entre los críticos destacan empresas como OpenAI, Google y Meta, que sugieren que la regulación de la IA debería gestionarse a nivel federal para evitar un mosaico de normativas estatales. También han surgido preocupaciones sobre el impacto negativo que podría tener en la competitividad del ecosistema tecnológico de California.

El gobernador Newsom tiene hasta el 30 de septiembre para firmar o vetar la ley, lo que deja su futuro aún incierto.